Каков Экзистенциальный Риск?
Экзистенциальный риск - бедствие, настолько большое, что он или истребляет все человечество или надолго наносит вред нам. Они могут быть стихийными бедствиями, или искусственными бедствиями намеренной или случайной природы. Экзистенциальный риск, возможно, был вокруг в течение долгого времени, или только несколько десятилетий, или возможно он находится в нашем будущем. Примеры экзистенциального риска включают большие удары астероида, ядерную войну, и Искусственный интеллект уклоняющейся формы.
понятие экзистенциального риска был сначала соединен в его текущей форме доктором Ником Бостромом, Оксфордским философом. Он использует диаграмму риска, подобную следующему, чтобы объяснить экзистенциальные риски:
<граница таблицы> <концерн>Экзистенциальные риски являются глобальными и предельными, или возможно почти предельными. Чрезвычайно инфекционный вирус с уровнем смертности на 99.9 %, к которому никто не неуязвим, является примером экзистенциального риска.
Bostrom подчеркивает, что наши умы и учреждения плохо оборудованы, чтобы иметь дело с размышлением об экзистенциальном риске, потому что мы никогда не испытывали один прежде вЊ , если мы имели, мы wouldn t, чтобы должными быть здесь думать о них. Как ребенок, что doesn t знают, что печь горяча, пока он не касается ее, у нас есть небольшой опыт с катастрофами на этом уровне. Бубонная чума средневековой Европы и Испанский грипп WWI предлагают нам дегустирование того, на что походило бы экзистенциальное бедствие. Десятки миллионов здоровых людей были поражены мертвые в простые часы обеими болезнями.
В его канонической статье на теме Bostrom перечисляет приблизительно дюжину экзистенциальных рисков и категоризирует их основанный на их серьезности и возвращаемости. Некоторые из самых вероятных перечислены здесь:
- генетически спроектировал вирусы
nanotechnological гонки вооружений
катастрофическая ядерная война
неконтролируемая робототехника самомультиплицирования
, суперинтеллектуальный АЙ безразличный людям
бедствие физики в ускорителе частиц
взрыв супервулкана закрывает солнце
Из-за чрезвычайной серьезности и необратимости экзистенциального риска, возможные контрмеры стоят проводить коллективное обсуждение и осуществлять. Даже если шанс данной экзистенциальной угрозы, становящейся действительностью, является малым, огромные доли включили требование серьезная программа предотвращения. Для инициирующих человека угроз контрмеры включают сложные системы наблюдения-и-тревоги и регулирование определенных технологий, чтобы гарантировать, что они не используются для массового уничтожения. В страны, подозреваемые в обладании оружием массового поражения, иногда вторгаются другие страны, взволнованные по поводу долговременных последствий, как война в Ираке ярко демонстрирует.